Tenstorrent GPU在本地AI应用中的体验如何？
一位Reddit用户正在密切关注AI硬件市场的竞争态势，特别是Tenstorrent公司的AI加速卡，并向社区征集关于其在本地AI应用中实际使用体验的反馈。该用户重点提及了P150a型号，指出其拥有32GB GDDR6显存和512GB/s的内存带宽。更引人注目的是，P150a配备了4x800 GbE的高速以太网互联架构，这意味着多卡系统不再仅仅依赖PCIe总线进行通信，这对于构建高性能、可扩展的本地AI计算集群具有重要意义，尤其是在Nvidia NVLink缺失的情况下，提供了一种替代性的GPU互联方案。 该用户认为，Tenstorrent在未来一到两代产品迭代后，有望成为比Nvidia或AMD更具竞争力的本地AI GPU解决方案。其显著优势之一是成本效益，P150a的价格大约是即将推出的Nvidia RTX 5090的三分之一。此外，Tenstorrent原生支持GPU网格互联（native GPU meshing）被视为一大亮点。 对于中国的AI开发者和创业者而言，Tenstorrent的出现提供了一个值得关注的Nvidia替代选项。其大容量显存和高速多卡互联能力，对于本地部署大型语言模型（LLMs）的推理和微调，以及其他AI工作负载，可能具有显著的技术和经济价值。然而，实际的性能表现、软件生态支持以及社区活跃度将是决定其市场接受度的关键因素。社区的反馈将有助于评估Tenstorrent GPU在实际开发环境中的潜力与挑战。